مقال رأي | سباق الذكاء الاصطناعي المحموم.. هل حان وقت كبح الجماح؟

لم يعد السؤال في سباق الذكاء الاصطناعي هو: من سيصل أولاً إلى النموذج الأكثر ذكاءً؟ بل بدأ سؤال أكثر إلحاحاً يفرض نفسه: هل أصبح من الضروري إبطاء هذا السباق قبل أن تتجاوز قدرات الأنظمة الجديدة قدرة البشر على فهمها والسيطرة عليها؟

هذا الجدل اكتسب زخماً جديداً بعد دعوة داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تقدماً، معتبراً أن إجراءات السلامة تحتاج إلى وقت للحاق بالقدرات التي تتطور بوتيرة متسارعة. وحظيت الدعوة بتأييد من أسماء بارزة في الصناعة، بينها سام ألتمان وإيلون ماسك، ما نقل النقاش من دوائر الباحثين في سلامة الذكاء الاصطناعي إلى أعلى مستويات صناعة التكنولوجيا.

لكن عبارة "إبطاء الذكاء الاصطناعي" قد تكون مضللة إذا فُهمت على أنها تعني وقف الأبحاث أو تجميد التكنولوجيا. المقصود، بحسب الطروحات الحالية، هو إبطاء تطوير القدرات الأكثر تقدماً عندما تصبح أسرع من قدرة الشركات والحكومات على اختبارها وتأمينها، مع استمرار البحث والتطوير في المجالات التي يمكن التحكم بمخاطرها.

لماذا ظهر هذا القلق الآن؟

هناك تحول مهم يجري داخل الصناعة. فالذكاء الاصطناعي لم يعد مجرد أداة تنتظر سؤالاً من المستخدم وتقدم إجابة. الجيل الجديد من الأنظمة يعتمد بصورة متزايدة على الوكلاء المستقلين القادرين على التخطيط وتنفيذ سلسلة من المهام واستخدام أدوات رقمية والتفاعل مع أنظمة أخرى بدرجة أقل من التدخل البشري.

الأكثر إثارة للقلق هو دخول الذكاء الاصطناعي نفسه بصورة متزايدة في عملية تطوير الذكاء الاصطناعي. وتقول أنثروبيك إن أنظمتها تساعد بالفعل مهندسيها على تسريع عملية البرمجة والتطوير، وإن الاتجاه على المدى الأبعد يمكن أن يقود إلى أنظمة تساهم في تصميم أجيال أكثر تطوراً منها، فيما يعرف بـ"التحسين الذاتي المتكرر". وتؤكد الشركة في الوقت نفسه أننا لم نصل بعد إلى مرحلة يستطيع فيها النظام تطوير خليفته بصورة مستقلة بالكامل.

الخطر هنا ليس بالضرورة أن يصبح الذكاء الاصطناعي "واعياً" أو أن يقرر فجأة مهاجمة البشر، كما تصور أفلام الخيال العلمي. الخطر الأكثر واقعية هو أن تصبح الأنظمة أسرع وأكثر استقلالية وأكثر قدرة على تنفيذ أعمال معقدة من قدرة البشر على مراقبتها والتدخل في الوقت المناسب.

وفي مجال الأمن السيبراني تحديداً، يمكن أن تتحول هذه القدرات إلى مشكلة كبيرة. أمودي حذر من سيناريوهات مستقبلية قد تتمكن فيها أسراب من الوكلاء المستقلين من تنفيذ هجمات إلكترونية واسعة النطاق، وربط هذه المخاوف بتطور القدرات التي ظهرت في اختبارات حديثة.

---

---

معضلة لا تستطيع الشركات حلها بمفردها

المشكلة الأساسية أن مطالبة شركة واحدة بالإبطاء قد تبدو منطقية من منظور السلامة، لكنها شديدة الصعوبة من منظور المنافسة.

إذا قررت شركة إبطاء تطوير نماذجها ستة أشهر لإجراء المزيد من اختبارات السلامة، بينما استمرت الشركات المنافسة بأقصى سرعة، فقد تخسر موقعها في السوق ومليارات الدولارات من الاستثمارات والعملاء.

وهذا ما يمكن وصفه بـمعضلة سباق الذكاء الاصطناعي: قد تتفق الشركات نظرياً على أن السرعة المفرطة خطرة، لكن كل شركة تخشى أن تكون الوحيدة التي تضغط على المكابح.

وهناك بعد أكبر من المنافسة بين الشركات، وهو المنافسة بين الدول. فالولايات المتحدة لا تنظر إلى الذكاء الاصطناعي باعتباره مجرد صناعة تجارية، بل تكنولوجيا استراتيجية ترتبط بالأمن القومي والاقتصاد والتفوق العسكري. ومن هنا يظهر السؤال الصعب: ماذا يحدث إذا أبطأت الشركات الأميركية تطوير الذكاء الاصطناعي بينما استمرت الصين أو دول أخرى بالسرعة نفسها؟

لهذا السبب، فإن الإبطاء الأحادي ليس حلاً مستداماً.

من يملك قرار الضغط على المكابح؟

هناك ثلاثة أطراف رئيسية يمكنها التأثير في سرعة السباق: الشركات، والحكومات، والمؤسسات الدولية.

الشركات تملك المعرفة التقنية والبنية التحتية والنماذج نفسها، ولذلك يجب أن تكون خط الدفاع الأول. ومن بين المقترحات المطروحة السماح لجهات مستقلة بالدخول إلى الشركات ومراقبة إجراءات السلامة واختبار النماذج قبل إطلاقها. وقد أعلن أمودي استعداد أنثروبيك لمنح مقيمين مستقلين مستوى مرتفعاً ودائماً من الوصول للتحقق من التزام الشركة بإجراءات السلامة.

لكن التنظيم الذاتي وحده لا يكفي. فالشركات لديها مساهمون ومستثمرون ومنافسون وضغوط تجارية هائلة، ولذلك لا يمكن أن تكون في الوقت نفسه مطور التكنولوجيا والحكم النهائي على مستوى المخاطر المقبول منها.

هنا يأتي دور الحكومات، ليس في تحديد الخوارزميات التي يجب على الشركات استخدامها، وإنما في وضع الحد الأدنى من قواعد السلامة: اختبارات إلزامية للنماذج الأكثر قوة، تقييمات مستقلة، الإبلاغ عن الحوادث الخطيرة، وتحديد مستويات من القدرات لا يسمح بتشغيلها على نطاق واسع قبل التأكد من إمكانية السيطرة عليها.

ويبقى المستوى الثالث والأصعب: التنسيق الدولي.

إذا أصبحت أنظمة الذكاء الاصطناعي المستقبلية قادرة على التأثير في الأمن السيبراني والبنية التحتية والأسلحة البيولوجية والاقتصادات، فلن يكون من الممكن التعامل معها باعتبارها قضية محلية تخص دولة واحدة.

وكما حدث مع التقنيات النووية والطيران والأمن السيبراني، ستحتاج الدول في مرحلة ما إلى قواعد مشتركة، حتى بين الدول المتنافسة. وهذا أحد المحاور التي تضمنتها دعوة أمودي، التي طرحت التنسيق بين الدول الديمقراطية ثم البحث عن ترتيبات أوسع مع الدول المنافسة.

لكن الإبطاء يحمل مخاطر أيضاً

في المقابل، يجب ألا يتحول الخوف من الذكاء الاصطناعي إلى ذريعة لإيقاف الابتكار.

هذه التكنولوجيا تحمل فرصاً كبيرة في الطب والتعليم والبحث العلمي والصناعة والإنتاجية، وتأخيرها بصورة مبالغ فيها قد يعني أيضاً تأخير اكتشاف أدوية جديدة أو تطوير أدوات تعليمية أو حلول لمشكلات علمية واقتصادية معقدة.

كما أن هناك تخوفاً مشروعاً من أن تستفيد الشركات العملاقة من القواعد الصارمة أكثر من الشركات الصغيرة، لأنها الوحيدة القادرة على تحمل تكاليف الاختبارات والامتثال، وهو ما قد يؤدي في النهاية إلى تركيز صناعة الذكاء الاصطناعي في أيدي عدد محدود جداً من الشركات.

لذلك فإن الاختيار الحقيقي ليس بين السرعة أو التوقف، وإنما بين السرعة غير المنضبطة والتقدم المسؤول.

السؤال ليس: هل نتوقف؟ بل: متى يجب أن نتوقف؟

الحل الأكثر واقعية قد يكون إنشاء نظام يشبه إشارات المرور.

معظم تطوير الذكاء الاصطناعي يمكن أن يبقى في المنطقة الخضراء. وعندما تظهر قدرات أكثر خطورة ينتقل النظام إلى المنطقة الصفراء، حيث تصبح الاختبارات والرقابة أكثر صرامة. أما إذا وصل نموذج إلى مستوى يستطيع فيه تنفيذ هجمات إلكترونية واسعة، أو تطوير أسلحة خطرة، أو تعديل نفسه بدرجة يصعب على البشر مراقبتها، فهنا يجب أن تكون هناك منطقة حمراء توقف نشره مؤقتاً حتى يتم التأكد من سلامته.

وهذا النموذج أفضل من محاولة وضع قانون واحد لجميع أنواع الذكاء الاصطناعي، لأن نموذجاً يساعد طالباً في تلخيص كتاب لا يحمل مستوى المخاطر نفسه لنظام يستطيع إدارة شبكة كهرباء أو تنفيذ عمليات إلكترونية مستقلة.

من يحسم الجدل؟

في النهاية، لا ينبغي أن يكون القرار بيد شركات الذكاء الاصطناعي وحدها، ولا تستطيع الحكومات اتخاذه دون الخبرة التقنية الموجودة داخل تلك الشركات.

الحل يحتاج إلى مسؤولية مشتركة: الشركات تطور وتختبر، جهات مستقلة تراقب وتتحقق، الحكومات تضع الحدود القانونية، والدول الكبرى تتفق على الحد الأدنى من القواعد التي تمنع تحول المنافسة إلى سباق لا يستطيع أحد إيقافه.

ربما لا يحتاج العالم إلى إبطاء الذكاء الاصطناعي كله. ما يحتاج إليه هو القدرة على معرفة متى يجب أن نبطئ، وأين يجب أن نتوقف، ومن يملك صلاحية الضغط على المكابح.

فالخطر الحقيقي ليس أن يصبح الذكاء الاصطناعي أكثر ذكاءً، وإنما أن تتسارع قدراته أكثر من قدرتنا على فهمه وتأمينه والسيطرة على ما نسمح له بفعله.

---